由于具有二进制和事件驱动架构,脉冲神经网络 (SNN) 在节能神经形态芯片方面具有巨大潜力。SNN 主要用于分类任务,但在图像生成任务方面的探索有限。为了填补这一空白,我们提出了一种脉冲扩散模型,该模型基于矢量量化离散扩散模型。首先,我们开发了一个带有 SNN 的矢量量化变分自动编码器 (VQ-SVAE) 来学习图像的离散潜在空间。在 VQ-SVAE 中,使用脉冲发放率和突触后电位对图像特征进行编码,并设计了一个自适应脉冲生成器来以脉冲序列的形式恢复嵌入特征。接下来,我们在离散潜在空间中执行吸收态扩散,并构建一个带有 SNN 的脉冲扩散图像解码器 (SDID) 来对图像进行去噪。我们的工作是第一个完全从 SNN 层构建扩散模型的工作。在 MNIST、FMNIST、KMNIST、Letters 和 Cifar10 上的实验结果表明,Spiking-Diffusion 优于现有的基于 SNN 的生成模型。我们在上述数据集上分别实现了 37.50、91.98、59.23、67.41 和 120.5 的 FID,与最先进的工作相比,FID 减少了 58.60%、18.75%、64.51%、29.75% 和 44.88%。我们的代码将在 https://github.com/Arktis2022/Spiking-Diffusion 上提供。
主要关键词
![arXiv:2308.10187v4 [cs.NE] 2023 年 9 月 22 日PDF文件第1页](/bimg/8/8fdd057e6e00d7433c6c588d7b74ddf53a263c07.webp)
![arXiv:2308.10187v4 [cs.NE] 2023 年 9 月 22 日PDF文件第2页](/bimg/0/01c6af33d837344fc5701a2bc7c4ce8b3da02315.webp)
![arXiv:2308.10187v4 [cs.NE] 2023 年 9 月 22 日PDF文件第3页](/bimg/7/7e31dba0f79096cf581227cda05a632c943f379d.webp)
![arXiv:2308.10187v4 [cs.NE] 2023 年 9 月 22 日PDF文件第4页](/bimg/4/4f1b0939dd19132c90a1e5c4e4797a7cb62df860.webp)
![arXiv:2308.10187v4 [cs.NE] 2023 年 9 月 22 日PDF文件第5页](/bimg/e/e2938d47171c644323cfcf05ca3adaa3f64935a0.webp)
